همزمان با تحصیل ادبیات عرب در حوزه علمیه، در دبیرستان شبانه هم نام نویسی کرد تا دوره متوسطه آموزش جدید را بگذراند. پدر، با تحصیلات بچه ها در دوره های جدید آموزشی مخالف بود. آن زمان دبستان دارالتعلیم دیانتی تصدیق ششم ابتدایی نمی داد؛ امتیاز رسمی برای این کار نداشت؛ و او مخفیانه، دور از چشم پدر، امتحانات پایه ششم را گذرانده؛ مدرک گرفت.

دوره متوسطه را جهشی، در دو سال خواند و آن را به نیمه رساند و دیگر ادامه نداد و زندگی علمی علی آقا در حوزه علمیه مشهد هنگامی شروع شد که بیش از ده سال از باز سازی آن می گذشت؛ حوزه ای که پس از حادثه خونین مسجد گوهر شاد، تقریبا تعطیل شده بود.

در دهه بیست شمسی مدرسان و استادانی چون حاج میرزا احمد مدرس، حاج شیخ کاظم دامغانی، حاج شیخ هاشم قزوینی و حاج شیخ حسین بجستانی در تدریس درس های دوره سطح؛ شیخ سیف الله ایسی و حاج شیخ مجتبی قزوینی در فلسفه؛ و حاج سید یونس اردبیلی و میزا احمد کفایی در دروس خارج، به حوزه علمیه مشهد رونق بخشیدند تا این که آیت الله سید محمد هادی میلانی وارد مشهد شد. وی که به علت بیماری و به توصیه پزشکان باید شهر کربلا را ترک می کرد، به ایران آمد و پس از اقامت و معالجاتی در تهران، روز عرفه 19 مرداد 1333 ش به مشهد مقدس رسید تا زائر امام هشتم (ع) باشد.

سید علی درس های طلبگی را در مدرسه سلیمان خان آغاز کرد. مدیریت مدرسه در این زمان با شیخ حسین بجستانی بود که از طرف آقای کفایی منصوب شده بود. این مدرسه که در دوره رضا شاه با تدبیر میرزا احمد آیت الله زاده خراسانی (کفایی) باز مانده بود، در دهه بیست، یکی از عوامل جان گرفتن حوزه علمیه مشهد شد؛ هرچند نقش دو عالم بزرگ وقت، حاج شیخ مرتضی آشتیانی و آقا میرزا مهدی اصفهانی، در سال های نخستین دهه بیست در رونق دوباره حوزه مشهد به ویژه  در آموزش درس خارج فقه بی بدیل بود.

واپسین بخش های کتاب جامع المقدمات، یعنی شرح انموذج و صمدیه را نزد آقای علوی، دانشجوی رشته پزشکی خواند. پس از آن، بنابر مرسوم، کتاب سیوطی را که آموخته های پیشین را در ادبیات عرب عمق می بخشد، از آقای مسعودی درس گرفت.همچنین بخشی از مغنی را نزد همین مدرس خواند.

هم زمان با فراگیری این دو کتاب، برای ادامه تحصیل به مدرسه نواب رفت. برادرش، سید محمد، در این مدرسه اتاق داشت. یادگیری کتاب معالم را که نخستین کتاب مقدماتی در اصول فقه است در مدرسه نواب شروع کرد. مدرس معالم، دوست پدرش، سید جلیل حسینی سیستانی بود. حدود نیمی از معالم الاصول را نزد وی فرا گرفت.

همزمان با پیشنهاد پدر، آموزش کتاب شرایع الاسلام را نزد او آغاز نمود و در بخش عبادات آن که شامل ده کتاب است تا مبحث حج (کتاب هشتم) پیش رفت."شرایع، کتاب درسی نبود. پدرم احساس کرد این کتاب می تواند در پیشبرد من موثر باشد، که همین طور هم شد... اختلاف سنی من و پدرم خیلی زیاد بود؛ درست چهل و پنج سال. علاوه بر آن، پدرم مقام علمی بالایی داشت و مجتهدی با اجازات [بود] و شاگردانی در سطوح عالی تربیت کرده بود. بنابراین سزاوار نبود که او با آن مقام علمی به من که دوره ی ابتدایی دروس اسلامی را می گذراندم درس بدهد. حال و حوصله این گونه کارها را هم نداشت، اما بنابر علاقه ای که به تربیت ما داشت، هم به برادر بزرگتر و هم به من و هم بعدها به برادر کوچکترمان درس می داد و حق عظیمی از جهت تحصیلی و تربیتی به گردن همه ما برادران، به ویژه بر من دارند؛ چنان که اگر ایشان نمی بودند، من به موفقیت های فراوانم در تحصیلات فقه و اصول نائل نمی شدم."

پس از آن همراه برادر، سید محمد، به پای درس شرح لمعه پدر نشست تا یک دوره کامل از فقه شیعه را بیاموزد."وقتی رسیدیم به کتاب حج، مصادف شد با این که پدرم کتاب حج شرح لمعه را به برادرم درس می داد. آن وقت به من گفت بیا ودر درس شرح لمعه شرکت کن. من گفتم ممکن است نتوانم بفهمم. ایشان گفتند می توانی بفهمی و لذا رفتم و اتفاقا فهمیدم."

حدود 40 فصل از 53 فصل آن را درس گرفت و با پیکره علم فقه آشنا شد. بقیه فصول را از آیت الله میرزا احمد مدرس یزدی آموخت. وی از مدرسان رسمی شرح لمعه، قوانین، مکاسب و کفایه در مدرسه نواب، و در امور علمی خویش بسیار سخت کوش و منظم بود. میرزااحمد مدرس یزدی یکی از پنج عالم استثناء شده مشهد بود که در زمان رضا شاه خلع لباس نشد وتوانست در انزوای مدرسه ابدال خان، کم وبیش پنهانی، تدریس کند.